Au XIXème siècle, Asa, une sorcière, revient hanter le village où elle a été mise à mort des années auparavant. Elle s'en prend à Katia, sa descendante qui lui ressemble trait pour trait.
Le masque du démon est le premier film entièrement réalisé par Mario Bava, un grand pionnier du cinéma italien fantastique. Il commence sa carrière comme chef-opérateur dans les années 1930 et réalise quelques courts métrages. Il achève Les vampires (1956) après que Riccardo Freda, son réalisateur officiel, ait quitté le tournage. Il s'agit d'une des toutes premières tentatives italiennes de l'après-guerre en matière d'épouvante : mais elle n'intéressera pas le public. Puis, Bava travaille, comme directeur de la photographie, avec Pietro Francisci pour Les travaux d'Hercule (1957) : ce sera un énorme succès qui va lancer une grande vague de péplums mythologiques en Italie, et faire du culturiste Steve Reeves une vedette du cinéma d'aventures. Il s'agit en fait du début de l'âge d'or du cinéma fantastique italien qui durera jusqu'au début des années 1980. Les compères se retrouveront sur Hercule et la reine de Lydie (1959). La même année, Bava sera chargé de finir en vitesse un autre péplum, La bataille de Marathon (1959), dont Jacques Tourneur, le réalisateur initial, n'avait pas pu achever le tournage dans les délais impartis par les producteurs. C'est donc en 1960 qu'on propose enfin à Mario Bava de réaliser son premier long métrage: Le masque du démon.
Dans ce film, Bava nous propose un nouveau regard sur le cinéma d'horreur de la fin des années 1950 tel qu'il a été mis en place par les films de Terence Fisher (Frankenstein s'est échappé, Le cauchemar de Dracula...). Il travaille donc une atmosphère gothique terrifiante avec des éléments incontournables du genre : cimetière désolé, taverne enfumée, paysans superstitieux, lande brumeuse, ruines inquiétantes, crypte malsaine, château à l'abandon... répondent présents à l'appel. Peut-être pour des raisons économiques, Bava n'a pas recours à la palette de couleurs fantastiques qu'affectionnent les productions Hammer : mais son talent hors du commun de directeur de la photographie lui permet de transcender cette limitation en proposant une des plus belles et des plus subtiles compositions de noir et de blanc jamais vues sur un écran de cinéma. L'étrangeté de l'ambiance est aussi rendue grâce au grand soin porté aux décors. Ainsi, châteaux, cryptes et passages secrets sont couverts d'ornements inquiétants, de gargouilles étranges et de voussures complexes : l'ensemble est encore mis en valeur par des éclairages raffinés et des mouvements de caméra sinueux et savants.
Bava ne se repose pas pour autant uniquement sur une atmosphère magistralement rendue : il propose aussi un récit énergique, fécond en rebondissements horrifiques, qui n'ennuie jamais le spectateur. On apprécie des scènes d'épouvante assez violentes et tout à fait réussies : clous enfoncés dans les yeux, tête brûlée dans un feu de bois, morte-vivante se promènant les viscères à l'air... Bava suit ainsi la surenchère dans la violence explicite amorcée par les films Hammer. Il apporte aussi un goût nouveau pour la violence esthétisée et un raffinement dans la cruauté qui vont devenir sa marque de fabrique en ce domaine son influence sera énorme sur des gens comme Dario Argento (Suspiria (1977) et ses meurtres baroques...) ou Lucio Fulci (L'au-delà (1981) et ses zombies poétiques...). On assiste donc à un prologue impressionnant, dans lequel des inquisiteurs impitoyables mettent à mort la sorcière et son amant à l'aide d'un masque hideux dont l'intérieur est orné de pointes acérées, qui s'enfoncent dans les chairs des condamnés. Ce goût des armes étranges et des mises à morts spectaculaires reviendra souvent dans l'oeuvre de Bava (Six femmes pour l'assassin (1964), La baie sanglante (1971)...).
On trouve aussi d'autres éléments typiques du cinéma de ce réalisateur. A travers les rapports entre la jeune Katia et Asa, son ancêtre qui lui ressemble étrangement, on voit déjà son intérêt pour les constructions dramatiques ambiguës, élaborées à partir de personnages complexes. Ainsi, le spectateur ayant assisté à la mort d'Asa dans le prologue, il prend Katia pour son fantôme lorsque celle-ci apparaît pour la première fois dans les ruines de la vieille église. On retrouve encore ce jeu du double lorsque Katia contemple, fascinée, le portrait de son ancêtre malfaisante habillée en princesse, et lorsqu'on découvre, dans un passage secret, un autre portrait d'Asa, cette fois nue en sorcière. Enfin, l'affrontement finale dans la crypte reposera encore sur l'antagonisme entre ces deux femmes aux personnalités radicalement opposées, mais partageant le même visage (et donc la même identité visuelle). Dans ce jeu de figures multiples et trompeuses, les masques terribles des morts, les portraits immobiles, les armures disposées dans le château et les sculptures aux regards fixes sont autant de présences menaçantes et de signaux troublants qui viennent épaissir l'ambiance mystérieuse de ce drame. On retrouve aussi, par moment, le pessimisme de Bava, son goût de la tragédie, particulièrement à travers la mélancolique Katia, oppressée par une malédiction familiale, terrorisée par les décès sauvages qui s'accumulent autour d'elle et persécutée par une morte bien décidée à lui prendre sa place parmi les vivants.
Véritable acte fondateur de l'épouvante italienne, Le masque du démon frappe avant tout par son atmosphère poétique et ses images magnifiques. Ce joyau noir du fantastique met aussi en place de nombreux éléments du cinéma de Mario Bava, particulièrement sa cruauté très personnelle, son sens de l'atmosphère imparable et son intérêt pour les identités complexes et ambiguës qui entraînent les personnages aux portes de la folie et de la mort (Lisa et le diable (1972)...).